新一批国产大模型通过备案 网络安全垂直领域大模型发展提速
安全419注意到,近期又有新的一批国产大模型通过国家《生成式人工智能服务管理暂行办法》备案。通过梳理发现,本次14款获得审批通过的国产大模型以垂直领域的大模型为主,其中一部分来自第四范式、零一万物、衔远科技、识因智能等人工智能企业,也有一部分来自智联招聘、脉脉、掌阅等互联网垂直领域的企业。
值得注意的是,来自步刻科技的微步情报智脑XGPT安全大模型也顺利通过了审批,成为当前网络安全领域首个率先完成国家新一轮备案要求的生成式人工智能大模型。这也标志着我国生成式人工智能在网络安全领域的发展与实践应用在监管层面得到了更多的关注和认可。
1月22日,安全厂商微步在线官方发布文章,宣布公司自主研发的微步情报智脑XGPT顺利完成生成式人工智能(大语言模型)上线备案。据介绍,微步情报智脑XGPT自2023年5月开启内测以来,已实现多次能力迭代与升级,该大模型能力现已开放至微步X安全情报社区,面向广大社会公众提供服务。
监管趋严 推动垂直领域大模型加速发展
安全419注意到,当前随着国产大模型的快速增长,各界对大模型的认知更加深入,向各行业渗透,进入垂直行业和前沿领域的行业场景探索深度赋能,成为大模型的新一阶段任务。与此同时,监管的步伐正在迅速跟上,相关监管措施也在密集出台。
2023年4月11日,国家网信办发布的关于《生成式人工智能服务管理办法(征求意见稿)》提出,利用生成式人工智能产品向公众提供服务前,应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
2023年6月20日,国家网信办发布了关于深度合成服务算法备案信息的公告,公开发布境内深度合成服务算法备案信息。国内大模型领域41个深度合成服务算法都被纳入清单,涉及26家公司,百度、阿里巴巴、腾讯、字节跳动、美团等互联网大厂均榜上有名。
随后,包括百度文心一言、商汤大模型“商量SenseChat”、百川智能的百川大模型、字节跳动的云雀大模型、智谱AI“GLM”大模型、中科院紫东太初大模型,MiniMax“ABAB”大模型、上海人工智能实验室书生通用大模型等都响应了监管部门的相关要求进行了备案,并陆续对公众开放。
在安全领域内,也不乏一些安全厂商宣布发布了安全垂直领域的大模型,但大多数仅完成了生成式人工智能算法的备案,甚至尚未开展备案相关工作。因此事实上,此次微步在线的微步情报智脑XGPT顺利通过备案审批,实际上也是在安全行业内开了个好头,为其他安全大模型的健康发展起到了一个示范作用。
微步情报智脑XGPT 无门槛面向C端用户提供服务
据微步在线相关负责人介绍,微步情报智脑XGPT是一个面向安全垂直领域的大模型,将网络安全大模型与微步高精准、覆盖全球的威胁情报能力和安全检测能力相结合,具备安全知识、威胁分析、安全运营三大核心能力,可从不同维度帮助企业安全团队提升安全运营效率,降低安全运营成本。
通过预训练,XGPT具备专业的安全认知,并能实时访问微步在线海量的情报数据及安全知识库,为使用者提供实时、精准的高质量安全知识问答能力,如威胁情报、漏洞情报、病毒知识、攻击技术、黑客画像等。该安全知识问答能力可用于产品技术支持、安全运营值守、安全研发查漏补缺等不同场景,24小时不间断服务,辅助降低人力成本。
其次,通过学习和总结人工安全分析方法和最佳实践,XGPT可达到中级安全分析师水平,具备网络流量、威胁日志、恶意代码等数据的威胁分析能力。如流量分析场景下,XGPT可以从网络日志和流量包中自动提取威胁载荷,识别0day漏洞利用、数据窃取、命令控制等攻击行为,对攻击过程和造成的危害进行解读。XGPT威胁分析能力能够广泛应用于威胁检测、事件响应等场景,能够大幅提升安全团队效率。
此外,XGPT也提供安全运营的能力。XGPT能与现有微步安全产品集成,用户可基于自然语言的简单交互,加速威胁监控、分析研判、处置响应过程。例如,针对一条网络攻击日志,XGPT可以围绕攻击方、受害者、攻击过程拓展大量上下文信息,回答攻击手法和危害、关联漏洞的影响和修复建议、攻击者的其他攻击活动等一系列安全运营实战问题,并可进一步接收用户指令,完成溯源,生成报告,下发封禁策略等操作。该能力后续将接入威胁感知平台TDP、终端安全管理平台OneSEC等微步流量和终端检测产品,帮助安全团队实现更智能化的安全运营闭环。
目前,微步在线这一安全大模型已经正式在其旗下的威胁分析与情报共享社区中对外免费开放,根据我们的实际体验,该大模型对常见威胁告警、日志等数据的分析能力几乎可达到一个中级安全分析师的知识水平,对提问问题进行专业化的解答。
在以下实例中,以安全人员熟悉的“麻辣香锅”病毒为例,经过验证,该大模型能够通过命令行发现病毒,并进一步解答这个病毒的特征和处置建议:
虽然此前如百川大模型、云雀大模型、360智脑等大模型也在安全行业中得到了许多安全人员的认可和使用,但实际上通用性大模型在威胁数据的获取、安全大数据语料的训练方面存在一些短板,在安全人员对其进行应用的时候,反倒会生成一些存在误导性的内容,反倒增加了安全运营人员的工作压力,也会加剧攻防的不对等的问题。
据安全419了解,业内安全厂商发布的安全大模型大多数都以AI安全助手或者模块化功能的形式,将AI能力内置于其B端安全产品中,先在具体场景中去落地,对于安全从业者来说,几乎无法找到这些安全大模型的开放入口。因此,微步情报智脑XGPT实际也是当前业内宣称已正式发布的安全大模型中,为数不多的直接面向C端用户提供服务的大模型之一。
遍观当前通用大模型领域,虽然各家互联网厂商都已经下场推出自己的大模型产品,但实际上在“智力水平”上是存在明显差距的,在图像生成、代码编写、文案创作和数理运算等等方面,能够很明显地比较出孰优孰劣。
我们也认为,虽然当前许多安全厂商都号称打造了自己的安全大模型,但还是应该“是骡子是马,拉出来遛遛。”一个真正优秀的大模型产品不应该敝帚自珍,而是敢于面向广大用户开放使用,并接受用户评议。我们也相信,无论是一款什么样的产品,只有用户量达到一定的规模,才能够把产品打磨得越来越好。
”
2024年,安全419将从第三方产业观察视角,根据安全大模型的具体可应用场景及方向,分维度、成系列地来观察、分析、探讨技术研究成果和产品落地情况,以期为业界呈现大模型在网络安全领域的真实应用和未来趋势。
在此也欢迎在安全大模型及AI领域有所思考探索、自研发布或开展落地合作的安全企业与我们联系,共同分享见解展示成果。
END
✦
推荐阅读
✦
粉丝福利群开放啦
加安全419好友进群
红包/书籍/礼品等不定期派送